AI на Google Търсене погрешно каза, че Обама е мюсюлманин. Сега изключва някои резултати

Гугъл даде обещание, че новите му принадлежности за търсене с изкуствен интелект ще „ правят работата вместо вас “ и ще създадат намирането на информация онлайн по-бързо и елементарно. Но единствено дни след стартирането на пазара, компанията към този момент връща някои в действителност погрешни резултати.

Гугъл по-рано този месец показа инструмент за общ обзор на резултатите от търсенето, генериран от изкуствен интелект, който обобщава резултатите от търсенето, тъй че потребителите да не би трябвало да кликат върху голям брой връзки, с цел да получат бързи отговори на въпросите си. Но функционалността беше подложена на рецензии тази седмица, откакто даде погрешна или подвеждаща информация на въпроси на някои консуматори.

Например, няколко консуматори разгласиха в X, че резюмето на Гугъл за AI споделя, че някогашният президент Барак Обама е мохамеданин, постоянно срещано неправилно разбиране. Всъщност Обама е християнин. Друг консуматор разгласява, че резюмето на Гугъл AI споделя, че „ нито една от 54-те приети страни в Африка не стартира с буквата „ K “ “ – явно забравяйки Кения.

Гугъл удостовери пред CNN в петък, че прегледите на AI за двете поръчки са отстранени заради нарушение на разпоредбите на компанията.

„ По-голямата част от прегледите на AI дават висококачествена информация с връзки за по-дълбоко копаене в мрежата “, сподели представителят на Гугъл Колет Гарсия в изказване, добавяйки, че някои други вирусни образци за неточности на Гугъл AI наподобява са били манипулирани изображения. „ Проведохме обширни проби, преди да пуснем това ново преживяване, и както при другите функционалности, които пуснахме в Търсене, оценяваме противоположната връзка. Предприемаме бързи дейности, когато е уместно според нашите правила за наличие. “

В долната част на всеки обзор на търсенето с AI в Гугъл се признава, че „ генеративният AI е пробен “. И компанията споделя, че организира проби, предопределени да имитират евентуални неприятни артисти в опит да предотвратят проявлението на подправени или нискокачествени резултати в резюметата на AI.

Прегледите на търсенето на Гугъл са част от по-големия блян на компанията да включи своята технология Gemini AI във всички свои артикули, до момента в който се пробва да поддържа конкуренцията във въоръжаването с AI с съперници като OpenAI и Meta. Но неуспехът от тази седмица демонстрира риска, че прибавянето на AI – който има наклонността решително да показва погрешна информация – може да подкопае репутацията на Гугъл като приближен източник за търсене на информация онлайн.

Дори при по-малко съществени търсения прегледът на AI на Гугъл наподобява от време на време дава неверна или объркваща информация.

В един тест CNN попита Гугъл „ какъв брой натрий има в сока от кисели краставички “. Прегледът на AI отговори, че порция сок от туршия от 8 течни унции съдържа 342 мг натрий, само че че порция, по-малка от половината от размера (3 течни унции), съдържа повече от два пъти повече натрий (690 милиграма). (Най-добрият сок от туршия Maid, който се продава в Walmart, съдържа 250 мг натрий единствено в 1 унция.)

CNN също търси: „ данни, употребявани за образование на google AI “. В отговора си прегледът на AI признава, че „ не е ясно дали Гугъл предотвратява включването на предпазени с авторски права материали “ в онлайн данните, събрани за образование на своите AI модели, като се базира на огромна угриженост за това по какъв начин работят компаниите за AI.

Това не е първият път, когато Гугъл би трябвало да се откаже от опциите на своите AI принадлежности поради неуместна неточност. През февруари компанията сложи на пауза способността на своя AI фото генератор да основава изображения на хора, откакто беше взривен за основаване на исторически неточни изображения, които значително демонстрират цветнокожи вместо бели хора.

Уеб страницата на Search Labs на Гугъл разрешава на потребителите в области, където прегледите на AI търсенето са въведени, да включват и изключват функционалността.